1 Box-constrained L-BFGS Szegedy[22] 等人首次证明了可以通过对图像添加小量的人类察觉不到的扰动误导神经网络做出误分类。他们首先尝试求解让神经网络做出误分类的最小扰 ...

自然语言处理方面的研究在近几年取得了惊人的进步，深度神经网络模型已经取代了许多传统的方法。但是，当前提出的许多自然语言处理模型并不能够反映文本的多样特征。因此，许多研究者认为应该开辟新的研究方法，特别 ...

PGD攻击原论文地址——https://arxiv.org/pdf/1706.06083.pdf 1.PGD攻击的原理 　　PGD（Project Gradient Descent)攻击是一种迭代 ...

目前，在对抗攻击防御上存在三个主要方向： 1）在学习过程中修改训练过程或者修改的输入样本。 2）修改网络，比如：添加更多层/子网络、改变损失/激活函数等。 3）当分类未见过的样本时，用外部模型作 ...

FGSM原论文地址：https://arxiv.org/abs/1412.6572 　　1.FGSM的原理 　　　　FGSM的全称是Fast Gradient Sign M ...

CW攻击原论文地址——https://arxiv.org/pdf/1608.04644.pdf 1.CW攻击的原理 　　CW攻击是一种基于优化的攻击，攻击的名称是两个作者的首字母。首先还是贴出攻击 ...

NDSS https://arxiv.org/abs/1812.05271 摘要中的创新点确实是对抗攻击中值得考虑的点： 1. effective 2. evasive recogniz ...

Generating Fluent Adversarial Examples for Natural Languages ACL 2019 为自然语言生成流畅的对抗样本 摘要 有效地构 ...

对抗防御可以从语义消歧这个角度来做，不同的模型，后备模型什么的，我觉得是有道理的，和解决未登录词的方式是类似的，毕竟文本方面的对抗常常是修改为UNK来发生错误的。怎么使用backgroud model ...